陳海泉8歲入塾讀書,1927年畢業於邵陽縣立中學。這年,他投筆從戎,考入廣州黃埔軍校第六期工兵科學習。1930年畢業,派任國民革命軍十九師工程營第四連連長,後代理營長。1939年6月,他被任命為陸軍新編二十九師八十六團副團長,駐軍重慶,後移壁山。1940年,兼任師幹部訓練班主任。1941年冬,調八十五團任副團長。不久,升任為八十七團上校團長,奉命率部由四川開赴雲南,駐守雲南古驛機場。
陳海泉雖為國民黨中級軍官,但能潔身自好,不酗酒,不賭博,不狎妓,愛護下屬官兵,注意整飭軍紀,支持中國共產黨的抗日民族統一戰線政策。在家庭生活上,他反對三妻四妾的舊軍閥惡習,與出身低微的家鄉農村姑娘梁志純結婚。妻子連生5個女兒後,多次勸他娶妾生子,他不同意,還說:“男女都一樣,何必再娶,將來帶個外孫作孫子也是一樣。”當妻子生下第六個女兒時,他為小女兒取名叫慰慈,意思是要女兒好好安慰慈祥的母親。
太平洋戰爭爆發後,日本侵略軍於1942年3月上旬進攻緬甸仰光,並分兵向緬甸中部和北部進攻。國民黨政府為確保滇緬公路這條國際交通線,決定將第五、第六和六十六軍3個軍,編為中國遠征軍,先後開入緬甸抗日作戰。出發前,他對妻女說:“這次遠征抗日,成功不必在我,我先成仁。”還表示:“戰死疆場,死得其所。”然後,將他們送回老家,作了妥善安置。
4月28日晚,日軍攻陷由第六十六軍設防的臘戍,新編二十八師和二十九師一部退入山林,軍直屬部隊退駐古開。4月30日上午,一支日軍占領古開58碼高地後方4公里處,對遠征軍構成威脅。友鄰部隊曾幾次想奪回這處高地,未能實現。在這緊急關頭,第六十六軍軍長張軫命令陳海泉團火速行進,趕赴古開城北58碼處高地,防守正面陣地,同時調集軍部防禦炮4門協同陳海泉團作戰,任務是堅守3天,以待國內後續部隊增援。他當即堅決表示:“誓與陣地共存亡,決不後退一步。”
5月1日上午,日軍第五十六師團動用飛機對陳團陣地輪番轟炸,繼用大炮猛轟;接著日軍步兵在10餘輛坦克掩護下發起衝鋒。陳海泉率部猛烈還擊,戰鬥持續數小時,擊毀日軍坦克6輛,打退了日軍數次進攻。5月2日是戰鬥最酷烈的一天,日軍繼續發起猛烈衝鋒,陳海泉率部英勇抵抗,雙方死傷嚴重。下午2時許,他身負重傷,但仍指揮部隊堅守陣地。臨終前,陳海泉摘下胸前的符號,命令傳令兵呈送軍部,報告他已實現與陣地共存亡的誓言。